#снижение задержки

'ACE' позволяет LLM самоулучшаться через накопительный контекстный плейбук, демонстрируя заметный рост точности и сокращение задержек в задачах агентов и финансовых тестах.

'Amin — адаптивный оптимистичный планировщик, который использует нижние оценки длины вывода и упорядоченную эвикцию, чтобы значительно снизить задержки инференса и приблизиться к ретроспективному оптимуму.'